Pháp thiết lập một văn phòng đại diện ngoại giao tại Huế từ giữa năm 1875. Tháng 4 năm 1876 (Tự Đức 28), trụ sở tòa Đại diện Ngoại giao được khởi công xây dựng và hoàn thành vào tháng 7 năm 1878. Nhân viên đứng đầu được gọi là Đại diện Ngoại giao (Chargés d'Affaires)[1].

Sau hiệp ước Harmand ký ngày 25 tháng 8 năm 1883, Đại diện Ngoại giao đổi thành Công sứ (Résident) tại Huế thay mặt cho chính quyền bảo hộ của Pháp tại Trung Kỳ. Năm 1885, chính phủ Pháp đặt ra "Tổng Công sứ Trung – Bắc Kỳ" (Résident général de l'Annam et du Tonkin), còn gọi là Tổng Trú sứ hay Tổng sứ, thay mặt cho chính phủ Pháp chủ trì mọi công việc đối ngoại của triều đình Việt Nam và thường được gọi là "Toàn quyền lưỡng kỳ" hoặc "Toàn quyền Trung – Bắc Kỳ". Quyền hành của Toàn quyền Lưỡng kỳ ngang với Thống đốc Nam Kỳ và độc lập đối với Thống đốc Nam Kỳ. Toàn quyền Lưỡng kỳ nắm mọi quyền dân sự, quân sự, chủ trì, mọi quan hệ đối ngoại của Nam triều và mọi quan hệ giữa giới cầm quyền Pháp và Nam Kỳ. Dưới quyền trực tiếp của Toàn quyền Lưỡng kỳ là một hệ thống quan lại thực dân Pháp giúp việc: đứng đầu Bắc Kỳ là Thống sứ Bắc Kỳ (Résident supérieur du Tonkin); đứng đầu Trung Kỳ là Khâm sứ Trung Kỳ (Résident supérieur de l’Annam) và đứng đầu mỗi tỉnh ở cả Bắc Kỳ và Trung Kỳ là Công sứ (Résident) và Phó sứ (Résident adjoint).

Chức Tổng Trú sứ bị bãi bỏ năm 1889, chức vụ Khâm sứ Trung Kỳ (Résident supérieur d'Annam), còn được gọi là Đại trú sứ, được đặt ra để đảm nhiệm các công việc cho chính phủ Pháp bên cạnh Nam triều.

Thời kỳ Đại diện Ngoại giao (1875-1884)

Thời kỳ Công sứ (1884-1886)

Thời kỳ Tổng sứ (1885-1889)

Khâm sứ Trung Kỳ tại Huế (1886-1945)

Thời kỳ Công sứ Nhật tại Trung Bộ (1945)

Sau khi Chiến tranh thế giới thứ hai kết thúc, Pháp tìm cách trở lại phục hồi quyền thống trị tại Việt Nam, vì vậy đã đặt chức vụ Ủy viên Cộng hòa Pháp tại Trung và Bắc Kỳ. Chức vụ này có chức năng gần tương đương với chức vụ Tổng sứ Trung Bắc Kỳ trước kia, nhưng đặt trụ sở ở Hà Nội.